IT之家
05-05 07:04
消息称 Anthropic 看上英国企业 Fractile 推理芯片,有意导入
📌 一句话:Anthropic正评估引入Fractile推理芯片,旨在提升AI模型部署效率。
💡 3个要点
Anthropic是Claude大模型的开发商,在AI领域与OpenAI竞争
Fractile是英国专注AI推理芯片的初创公司,主打高效推理方案
推理芯片专门加速模型输出回答的过程,比通用芯片更节能快速
📖 背景
AI芯片分为训练芯片和推理芯片两类。训练芯片用于“教会”模型技能,推理芯片用于让模型快速回答问题。英伟达在训练芯片市场占主导,但在推理芯片领域竞争者众多,Fractile正试图分一杯羹。
💭 点评
大厂们嘴上说“芯片够用”,身体却在抢推理芯片,说明效率战争已经打响。Anthropic若真与Fractile合作,既是多元化供应链的考量,也是为未来更大规模部署铺路。但初创芯片能否撑起商用级别可靠性,还是个问号。
📡 来源:IT之家
📖 原文链接
点击阅读原文 →